Surprise Me!

[자막뉴스] "숨겨진 의도까지 파악해"... 악플 관리하는 AI / YTN

2025-02-24 8 Dailymotion

미디어 학술지인 언론정보연구에 실린 '언어 사용과 의견 양극화'란 제목의 논문입니다. <br /> <br />지난 2022년부터 1년간 상대적으로 민감한 정치·사회 기사들에 달린 댓글을 분석한 결과입니다. <br /> <br />포털 뉴스에는 욕설과 비방을 포함하는 무례언어가 3천 건에 육박했고 유튜브 댓글은 절반 정도였습니다. <br /> <br />뉴스 유통의 통로가 주로 인터넷 포털이기 때문이라는 해석도 가능한데 <br /> <br />최근 이른 나이에 세상을 떠난 김새론을 계기로 댓글 통제에 대한 목소리가 다시 높아지면서 AI를 활용한 사전 감지 시스템도 덩달아 관심입니다. <br /> <br />네이버와 카카오는 AI 감지 기술을 도입해 글자는 물론 이른바 '움짤(GIF)'까지 필터링하고 있고 <br /> <br />해외 포털들도 공격성과 불쾌감을 수치화하거나 맥락을 분석해 악성 콘텐츠를 식별해 냅니다. <br /> <br />실제로 AI의 도움으로 제주항공 참사 당시 포털에서 사전 알림을 받은 언론사들이 댓글 제공 기능을 중단했고 <br /> <br />지난 파리올림픽 때는 사전에 선수들을 겨냥한 악의적인 댓글 수천 건을 걸러낸 예도 있습니다. <br /> <br />미디어 전문가들은 최근 AI의 역할은 댓글의 숨겨진 의도까지 파악하는 수준이라고 설명합니다. <br /> <br />[한정훈 / K엔터테크대표 : 자연어 처리가 좀 더 자연스럽게 돼 가지고요. 숨겨진 의도를 파악하는 수준까지 올라왔거든요 욕설이나 비하나 혐오 같은 좀 차별적인 발언 같은 경우 이게 한번 확산하면 끝이잖아요. 사실 AI는 자동으로 이제 검증을 할 수 있기 때문에] <br /> <br />특히 악성 댓글을 통제하는 AI 기술을 고도화하기 위한 투자를 늘려 반복되는 사고를 막아야 한다는 지적도 나옵니다. <br /> <br />YTN 이광연입니다. <br /> <br />영상편집ㅣ김희정 <br />디자인ㅣ이가은 <br />자막뉴스ㅣ이선, 고현주 <br /> <br /><br /><br />※ '당신의 제보가 뉴스가 됩니다' <br />[카카오톡] YTN 검색해 채널 추가 <br />[전화] 02-398-8585 <br />[메일] social@ytn.co.kr<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202502241609416898<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]

Buy Now on CodeCanyon